解方程组：ay-2xy-y^2=0和ax-x^2-2xy=0

ay-2xy-y^2=0 (1)
ax-x^2-2xy=0 (2)
(1)-(2)=a(y-x)-(x+y(y-x))=(y-x)0(a-y-x)=0
y=x或y+x=a
y=x时代入(1)
求出x=0,y=0或x=a/3,y=a/3
y+x=a时代入(1)
x=0或x=a
解为:x=0,y=a或x=a,y=0
所以方程组的解为:
x=0,y=0,x=a/3,y=a/3,x=0,y=a,x=a,y=0

ay-2xy-y^2=0...............(1)
ax-x^2-2xy=0...............(2)
(2)-(1)得：
ay-2xy-y^2-（ax-x^2-2xy）=0
整理得：a(x-y)-(x^2-y^2)=0
即:a(x-y)-(x-y)(x+y)=0

(x-y)(a-x-y)=0
得：x-y=0...........(3)
a-x-y=0...........(4)
由(3)得x=y
代入(4)得:
x=a/2
y=a/2

两方程作差，得到a(x-y)-(x^2-y^2)=0
提取x-y得到（x-y）(a-x-y)=0
所以
1.x=y，则x,y可以为任何值。
2.若x不等于y,则x+y=a，代入上题目中第二个式子，得到x（x-a）=0，则x=0 or x=a
x=0时，y=a;
x=a时，y=0;
此时条件是a不为0，若a为0，则此条件下方程无解。

综上：
a不等于0时有两解：
1.x=y
2.x=0,y=a or x=a,y=0
a等于0时，只能x=y